Các thành phố được giới thiệu theo "mã thành phố" (shisei, 市制) năm 1888[4] trong "Đại sáp nhập Minh Trị" (Meiji no daigappei, 明治の大合併) năm 1889. -shi thay thế các huyện đô thị/"quận/thành phố" (-ku) trước đó đã tồn tại như các phân khu chính của quận ngoài các huyện nông thôn/(-gun) kể từ năm 1878. Ban đầu, có 39 thành phố vào năm 1889: chỉ có một thành phố trong hầu hết các tỉnh trừ một số ít có hai thành phố (Yamagata, Toyama, Osaka, Hyōgo, Fukuoka), và không tỉnh nào có nhiều hơn - Miyazaki trở thành tỉnh cuối cùng có thành phố đầu tiên vào năm 1924. Ở Okinawa-ken và Hokkaidō chưa hoàn toàn bình đẳng trong Đế quốc, các khu định cư đô thị lớn vẫn được tổ chức như Các huyện nội thành cho đến những năm 1920: Naha-ku và Shuri-ku, hai huyện nội thành Okinawa chỉ được chuyển đổi thành Naha-shi và Shuri-shi vào tháng 5 năm 1921, và sáu -ku của Hokkaidoaidō đã được chuyển đổi thành các thành phố độc lập vào tháng 8 1922.

Đến năm 1945, số lượng thành phố trên toàn quốc đã tăng lên 205. Sau Thế chiến II, số lượng thành phố đã gần gấp đôi trong "Đại sáp nhập Chiêu hòa" của những năm 1950 và tiếp tục phát triển để vượt qua số lượng thị trấn vào đầu thế kỷ 21 (xem Danh sách các vụ sáp nhập và giải thể các đô thị ở Nhật Bản).[5] Tính đến ngày 1 tháng 10 năm 2018, có 792 thành phố ở Nhật Bản.[6]